ARMA: 自回归模型与移动平均模型的结合

公式定义：

ARIMA(p, d, q)模型: 全称为差分自回归移动平均模型（Autoregressive Integrated Moving Average model, 简称为ARIMA）

原理： 将非平稳时间序列转换为平稳时间序列然后将因变量仅对他的滞后值以及随机误差项的现值和滞后值进行回归所建立的模型 P为自回归项，q为移动平均项数，d为差分次数

描述当前值与历史值之间的关系，用变量自身的历史数据对自身进行预测 自回归模型必须满足平稳性的要求（差分法） P阶自回归过程的公式定义：

P P P 阶的意思是历史值与前面多少个有关系

从统计学的角度来看，平稳性是指数据的分布在时间上平移时不发生变化。要求经由样本时间序列所得到的拟合曲线在未来的一段期间内仍能顺着现有的形态“惯性”地延续下去。因此，非平稳数据显示了由于趋势而产生的波动，必须对其进行转换才能进行分析。

平稳性要求序列的均值和方差不发生明显变化

严平稳与弱平稳：

移动平均模型关注的是自回归模型中的误差项的累加 q阶自回归过程的公式定义：

移动平均法能有效地消除预测中的随机波动 (使误差越均衡越好)

有序的随机变量序列与其自身相比较 自相关函数反映了同一序列在不同时序的取值的相关性 当相关系数为1时为正相关，为-1时为负相关，0为没有关系

公式：

公式解释： 变量与自身的变化， y t y_t yt​ 和 y ( t − 1 ) y_{(t-1)} y(t−1)​ 到 y t y_t yt​ 和 y ( t − k ) y_{(t-k)} y(t−k)​ 的相关系数 k阶滞后点 ρ k \rho_k ρk​ 的取值范围 [-1，1]

ACF图解释：

横轴为阶数，纵轴为ACF的值。虚线表示95%置信区间。 这里Lag=20, 则最大为20阶。不同阶代表滞后不同的点。看同一序列在不同阶的时候的相关性如何。 这里2阶的时候约为-0.35，则与自身为负相关，相关系数约为0.35

对于一个平稳 A R ( p ) AR(p) AR(p) 模型，求出滞后k自相关系数 p ( k ) p(k) p(k) 时实际上得到的并不是 x ( t ) x(t) x(t) 与 x ( t − k ) x(t-k) x(t−k) 之间单纯的相关关系 x ( t ) x(t) x(t) 同时还会受到中间 k − 1 k-1 k−1 个随机变量 x ( t − 1 ) x(t-1) x(t−1) 、 x ( t − 2 ) x(t-2) x(t−2) ……、 x ( t − k + 1 ) x(t-k+1) x(t−k+1) 的影响，而这 k − 1 k-1 k−1 个随机变量又都和 x ( t − k ) x(t-k) x(t−k) 具有相关关系，所以自相关系数 p ( k ) p(k) p(k) 里实际掺杂了其他变量对 x ( t ) x(t) x(t) 与 x ( t − k ) x(t-k) x(t−k) 的影响 剔除了中间 k − 1 k-1 k−1 个随机变量 x ( t − 1 ) x(t-1) x(t−1) 、 x ( t − 2 ) x(t-2) x(t−2) ……、 x ( t − k + 1 ) x(t-k+1) x(t−k+1) 的干扰之后 x ( t − k ) x(t-k) x(t−k) 对 x ( t ) x(t) x(t) 影响的相关程度 总的来说ACF包含了其他变量的影响而偏自相关系数PACF是严格这两个变量之间的相关性

AIC: 赤池信息准则(Akaike Information Criterion) A I C = 2 k − 2 l n ( L ) AIC = 2k - 2ln(L) AIC=2k−2ln(L) 是参数与最终结果的精度之间的权衡 AIC为模型选择提供了有效的规则，但也有不足之处。当样本容量很大时，在AIC准则中拟合误差提供的信息就要受到样本容量的放大，而参数个数的惩罚因子却和样本容量没关系（一直是2），因此当样本容量很大时，使用AIC准则选择的模型不收敛与真实模型，它通常比真实模型所含的未知参数个数要多。

BIC: 贝叶斯信息准则(Bayesian Information Criterion) B I C = k l n ( n ) − 2 l n ( L ) BIC = kln(n) - 2ln(L) BIC=kln(n)−2ln(L)

k为模型参数个数，n为样本数量，L为似然函数 AIC和BIC越小越好 参数优化：似然函数最大化，模型中的未知参数个数最小化。

adfuller单位根检验数据平稳性 ADF检验的原假设是存在单位根，只要这个统计值是小于1%水平下的数字就可以极显著的拒绝原假设，认为数据平稳。注意，ADF值一般是负的，也有正的，但是它只有小于1%水平下的才能认为是及其显著的拒绝原假设。 （原假设为不是平稳时间序列)

输出结果解释： 第一个是adt检验的结果，简称为T值，表示t统计量。 第二个简称为p值，表示t统计量对应的概率值。 第三个表示延迟。 第四个表示测试的次数。 第五个是配合第一个一起看的，是在99%，95%，90%置信区间下的临界的ADF检验的值。

需要看的结果： 第一个，1%、5%、10%不同程度拒绝原假设的统计值和ADF Test result的比较，ADF Test result同时小于1%、5%、10%（第五个结果）即说明非常好地拒绝该假设。 第二个，p值要求小于给定的显著水平，p值要小于0.05，越小越好。P值接近0，则是平稳的，否则，不平稳。

结果:

结果分析： 原始数据的P值>0.05所以不满足平稳性要求 一阶差分的P值0.05时表明满足正态分布，该值越大越好，直到接近于1

输出：（统计量W的值,P值） 结果：ShapiroResult(statistic=0.7804399490356445, pvalue=0.355424317961812) 因此残差满足正态分布

Durbin-Watson 检验，又称 DW 检验，是用来检验回归分析中残差的一阶自相关性的(尤其针对时间序列数据)。 该统计量值越接近 2 越好，一般在 1~3 之间说明没问题，小于 1 这说明残差存在自相关性

结果： 1.999361458766296 因此残差不存在自相关性

Ljung-Box test是对randomness的检验,或者说是对时间序列是否存在滞后相关的一种统计检验。对于滞后相关的检验，我们常常采用的方法还包括计算ACF和PCAF并观察其图像，但是无论是ACF还是PACF都仅仅考虑是否存在某一特定滞后阶数的相关。LB检验则是基于一系列滞后阶数，判断序列总体的相关性或者说随机性是否存在。 时间序列中一个最基本的模型就是高斯白噪声序列。而对于ARIMA模型，其残差被假定为高斯白噪声序列，所以当我们用ARIMA模型去拟合数据时，拟合后我们要对残差的估计序列进行LB检验，判断其是否是高斯白噪声。如果得到白噪声序列，就说明时间序列中有用的信息已经被提取完毕了，剩下的全是随机扰动，是无法预测和使用的， 残差序列如果通过了白噪声检验，则建模就可以终止了，因为没有信息可以继续提取。如果残差不是白噪声，就说明残差中还有有用的信息，需要修改模型或者进一步提取。

输出解释： 原假设为白噪声（相关系数为零）检验的结果就是看最后一列前十二行的检验概率（一般观察滞后1~12阶），如果检验概率小于给定的显著性水平，比如0.05、0.10等就拒绝原假设，即为非白噪声。 结果分析： 如果取显著性水平为0.05或者0.1，结果不小于显著性水平，那么相关系数与零没有显著差异，即为白噪声序列。

可以看到总体预测出来的效果还是可以的了😆

因为我们对数据做了一阶差分处理，所以预测出来的数据也是一阶差分，因此在评价模型前应该把测试集也做一阶差分处理

模型预测好坏有很多种评价标准，这里只介绍两种

statsmodels.tsa.arima_model.ARIMA.predict 6 ARMA模型 机器学习经典算法：时间序列ARIMA模型 机器学习（五）——时间序列ARIMA模型 理论加实践，终于把时间序列预测ARIMA模型讲明白了 TimeSeries_Predict python时间序列分析（ARIMA模型） Statsmodels adfuller平稳性ADF检验 用python实现时间序列白噪声检验 ACF/PACF，残差白噪声的检验问题 时间序列之白噪声检验 【统计与检验-1】Shapiro-Wilk检验 Python机器学习模型-线性回归模型相关检验 回归评价指标MSE、RMSE、MAE、MAPE及python实现 时间序列–ARIMA（寻找最优参数）